NeuroCogMap Reveals Cognitive Organization of Large Language Models
NeuroCogMap：用认知神经科学映射大语言模型的功能组织
🧭 LLM 可解释性与认知映射
Gaoling School of Artificial Intelligence, Renmin University of China · Institute of Automation, Chinese Academy of Sciences · Nanyang Technological University · Imperial College London · Huazhong University of Science and Technology
将 LLM 内部表征脑图式分区，解释行为失败并关联人脑反应与决策策略
📌 工作参考价值（4 点）
- Agent 行为监控与故障定位：将 LLM 内部表征划分为功能分区，可实时检测 Agent 决策时的幻觉、偏见等失败模式，通过内部激活模式提前预警。
- 安全干预机制：针对特定失败（如谄媚或拒绝失效）对应的表征中断，可设计轻量级激活抑制或引导向量，在不改变模型参数下修正输出。
- 人机对齐优化：利用模型内部签名预测人脑皮层反应的能力，优化推荐解释或对话策略，使其更符合用户认知层级，提升说服力。
- 认知层级引导提示：映射出的认知层级结构可用于设计分阶段提示（如先锚定感知、后推进推理），增强 LLM 在复杂任务（如多步商品搜索）中的表现。